​I Forskningsenheden ved Børne- og Ungdomspsykiatrisk Center har vi foreløbig to målsætninger:

1. Identificer menneskelige værdier og brugerpræferencer, som LLM'er bør følge.
2. Udforsk måder at tilføje principperne om forklarlighed og retfærdighed i brugen af LLM'er for at sikre overensstemmelse med de identificerede, menneskelige værdier.

Seniorforsker Nicole Lønfeldt Vejleder Katerina Drakos, som er Ph.d.-studerende på projektet. Katerina undersøger, hvordan forældre og omsorgspersoner bruger AI-chatbotter i dag, og arbejder tæt sammen med Ph.d.-studerenden Eva Paraschou fra datavidenskab på DTU. Evas opgave er at udvikle en ny AI-chatbot (LLM) og undersøge, hvordan man implementerer menneskelige værdier i den nye teknologi.​

En vigtig del af alignAI-projektet er at udvikle AI-chatbotten på en etisk og brugerorienteret måde, der øger forældres og omsorgspersoners:

• engagement i Børne og Ungdomspsykiatrien
• viden om mental sundhed
• tillid og selvtillid i forhold til at finde vej i Børne- og Ungdomspsykiatrien.
  

For at sikre en ansvarlig fremtid skal det akademiske miljø i tæt samarbejde med industrien uddanne den næste generation af forskere. Vi skal være rustet til at forstå og navigere i de komplekse socio-tekniske udfordringer, der følger med brugen af de store sprogmodeller.

Anvendelsen af sprogmodeller som Microsoft Copilot og ChatGPT vokser hurtigt, og de bliver i stigende grad en integreret del af vores hverdag. ​

De store sprogmodeller rummer et enormt potentiale for at forbedre vores liv gennem automatisering og adgang til viden – men den hastige udvikling og udbredelse af LLM'er øger samtidig risikoen for utilsigtede konsekvenser. Derfor er det vigtigt, at implementeringen af disse teknologier sker med omtanke, så de følger menneskelige værdier og er tilpasset individuelle behov og præferencer – især inden for sårbare områder som mental sundhed.

Vi søger i øjeblikket forældre og forsørgere til undersøgelsen: "Forældres og omsorgspersoners erfaringer med AI-baserede værktøjer til mental sundhed"

Vi gennemfører en forskningsundersøgelse af, hvordan forældre og omsorgspersoner bruger AI-chatbots og “large language models" (f.eks. ChatGPT, Google Gemini og Microsoft Copilot) til at søge støtte og vejledning om deres barns mentale trivsel. Undersøgelsen ser også på, hvordan brugen af disse værktøjer kan påvirke forældres og omsorgspersoners stressniveau og selvtillid i omsorgsrollen.

Forældres og omsorgspersoners erfaringer kan hjælpe os med at udvikle bedre digitale løsninger, der støtter børn med psykiske udfordringer. Undersøgelsen består af et spørgeskema og et frivilligt dybdegående interview, som skal give indsigt i forældres og omsorgspersoners oplevelser, forventninger og eventuelle bekymringer ved brugen af AI-værktøjer til mental sundhed.

Projektet udføres af Det Samfundsvidenskabelige Fakultet ved Københavns Universitet af ph.d.-studerende Katerina Drakos under vejledning af lektor og psykolog Nicole Lønfeldt og er finansieret af Europa-Kommissionen.

Som deltager bestemmer man selv, hvilke dele af undersøgelsen, man ønsker at være med i. Du kan læse mere og tilmelde dig her.[KD1]